Quân Giải phóng Nhân dân Trung Quốc từng sử dụng rất nhiều máy bay tiêm kích thế hệ thứ hai Mikoyan-Gurevich MiG-19 của Liên Xô cũ, với phiên bản nội địa của nó là Shenyang J-6 từ năm 1958. Tháng 8 năm 1958, Quân Giải phóng Nhân dân Trung Quốc yêu cầu phát triển một loại máy bay chiến đấu phản lực mới trong vai trò chi viện hỏa lực không quân.

Dự án nghiên cứu máy bay tiêm kích-bom của Không quân Trung Quốc dự định sẽ tiếp tục chọn mẫu máy bay MiG-19 làm mẫu để thiết kế tương tự như chiếc Shenyang J-6 trước đây. Lu Xiaopeng, người thiết kế loại máy bay phản lực J-12, cũng chính là người đứng đầu dự án thiết kế loại máy bay này. Một phiên bản mới ra đời có tên là Qiangjiji-5 (máy bay tấn công thứ 5) có thân máy bay dài, diện tích dưới thân lớn giúp làm giảm lực kéo, cản của không khí; có 1 khoang chứa dài 4 m dưới bụng. Khe hút khí được đưa sang bên thân máy bay (các máy bay đời trước chiếc Q-5 đều có khe hút khí ở mũi) để tạo không gian ở trước mũi nhằm dự định đặt radar mục tiêu (nhưng nó lại không bao giờ được trang bị). Cánh mới có diện tích lớn hơn kết hợp với hình dạng cánh cụp. Q-5 sử dụng 2 động cơ phản lực WP-6 (sao chép động cơ Tumansky RD-9 của Liên Xô) tương tự chiếc Shenyang J-6, cho phép đạt tốc độ tối đa 1.195 km/h, tầm hoạt động 2.000 km. Nếu Q-5 tải 1.000 kg vũ khí trong thân và không mang bên ngoài cánh thì có thể đạt vận tốc siêu âm. Tuy nhiên, nếu có mang thùng nhiên liệu phụ thì nó chỉ đạt tốc độ dưới âm. Phiên bản thiết kế lại nhằm giảm chi phí vẫn có tốc độ cao nhưng chiếc Q-5 vẫn chỉ nhanh bằng MiG-19 và J-6 mà thôi, nhờ phần lớn vào hình dạng thân máy bay.

Về vũ khí, Q-5 trang bị 2 khẩu pháo Type-23-2K cỡ 23mm sao chép từ pháo Nudelman-Rikhter NR-23 của Liên Xô, bố trí ở "gốc" cánh (100 viên mỗi khẩu). Q-5 thiết kế 10 giá treo bom, tên lửa, rocket bao gồm 3 giá treo ở dưới mỗi cánh, 2 giá treo kép (gồm 4 thanh treo) song song ở giữa động cơ hay chính là khoang vũ khí dưới bụng, với trọng tải tối đa 2.000 kg vũ khí. Ở nhiều máy bay thì khoang chứa vũ khí được lắp đặt thùng dầu phụ. Ngoài ra, thùng dầu phụ cũng có thể lắp dưới cánh ở phiên bản Q-5I.

Nguyên mẫu Q-5 đầu tiên được hoàn thành vào năm 1960, nhưng do ảnh hưởng của Cách mạng Văn hóa ở Trung Quốc nên dự án bị hủy bỏ vào năm 1961. Mặc dù vậy, 1 đội trong nhóm thiết kế giữ cho dự án "sống sót" cho đến khi nó tái khởi động lại vào năm 1963, khi việc sản xuất đã được chuyển đến Nam Xương. Chuyến bay thử nghiệm đầu tiên, cuối cùng cũng được thực hiện vào ngày 4/ tháng 6 năm 1965. Dòng Q-5A chính thức đi vào sản xuất năm 1969 và phi đội đầu tiên được giao hàng vào năm 1970.

Nguyên mẫu Q-5 trang bị hệ thống điện tử "khá thô sơ", dự kiến ban đầu mũi máy bay chứa radar nhưng thực tế là không bao giờ được lắp. Trên máy bay có hệ thống liên lạc, la bàn vô tuyến, vô tuyến điện đo cao, kính ngắm quang học để ngắm bắn/ném bom.

Hơn 1.000 máy bay đã được sản xuất trong đó có 600 chiếc được nâng cấp từ phiên bản Q-5A. Một số ít, có lẽ là vài chục chiếc Q-5A được thiết kế nâng cấp riêng nhằm có thể mang vũ khí nguyên tử. Chúng được cho rằng có khoang vũ khí riêng để đem bom nguyên tử. Một phiên bản tăng tầm bay mang tên Q-5I, được giới thiệu năm 1983, trang bị thêm thùng dầu phụ thay vì ở khoang chứa vũ khí mà Q-5I có thêm 2 giá treo ở dưới mỗi cánh để lắp đặt 2 thùng nhiên liệu. Một số máy bay này phục vụ với Hải quân Quân Giải phóng Nhân dân Trung Quốc, được trang bị radar để dẫn đường các tên lửa chống hạm. Nâng cấp tiếp theo nhỏ bao gồm Q-5IA, với một hệ thống ngắm mục tiêu mới cho súng / bom và hệ thống điện tử hàng không, và Q-5II, với máy thu cảnh báo radar (RWR).

Đến cuối thập niên 1980, Q-5 bắt đầu được xuất khẩu cho các nước khác như Pakistan, Bangladesh, Myanma và Cộng hòa Dân chủ Nhân dân Triều Tiên với cái tên A-5.

Kế hoạch nâng cấp tiêm kích-bom Q-5/A-5 dự kiến sử dụng thiết bị của phương Tây bao gồm hệ thống điều khiển máy bay cùng hệ thống tấn công mới nhưng phần lớn bị hủy bỏ sau Sự kiện Thiên An Môn. Mặc dù vậy, những mẫu máy bay này vẫn tiếp tục hoạt động, điển hình là phiên bản cải tiến hợp tác với Pháp Q-5K được trang bị thiết bị laze đo xa ở đầu mũi. Q-5 nâng cấp trở thành một loại máy bay ném bom hạng nhẹ, tuy nhiên hệ thống điều khiển/tấn công cùng với các thiết bị điện tử còn hạn chế so với các máy bay hiện đại.

Trong những năm gần đây, PLAAF (Không quân Quân Giải phóng Nhân dân Trung Quốc) đã bắt đầu chú trọng đến phiên bản mới hơn của Q-5, kết hợp một số công nghệ được phát triển trong Q-5M và Q-5K bị hủy bỏ. Q-5 giới thiệu được gắn ở mũi 1 trắc kính laser, một hệ thống laser dẫn đường cũng có khả năng được trang bị kể từ khi máy bay được cho là có thể mang bom dẫn đường laser. Các biến thể Q-5A được tin là có khả năng mang vũ khí hạt nhân. Q-5D là một nâng cấp với hệ thống điện tử hàng không mới, bao gồm mhệ thống HUD và một hệ thống định vị mới. Q-5E và Q-5F các phiên bản được báo cáo đang được hoạt động, mặc dù ít được biết về chúng tại thời điểm này. Một trong số chúng có thể có khả năng có hai chỗ ngồi đã được nhìn thấy trong một vài hình ảnh, mặc dù phiên bản hai chỗ ngồi có thể được chỉ định là Q-5J.